![arxiv：2410.11845v1 [CS.DC] 29年9月29日](/simg/d/d0a1f54fa22e359589691384a728d794041d375a.webp)
机构名称：
¥ 3.0
大型语言模型（LLM）通过其出色的理解，合成和推理能力彻底改变了自然语言处理。但是，由于计算限制，内存限制和边缘硬件异质性，在资源约束的边缘设备上部署LLM提出了重大挑战。本调查提供了涵盖Edge LLM最近进步的全面概述，涵盖了整个生命周期 - 从资源过高的模型设计和预部主持策略到运行时推理优化。它还探讨了各个域之间的设备应用程序。通过综合最新技术并识别出启示研究方向，该调查弥合了LLM的巨大潜力与边缘计算的约束之间的差距。
arxiv：2410.11845v1 [CS.DC] 29年9月29日
主要关键词
![arxiv：2410.11845v1 [CS.DC] 29年9月29日PDF文件第1页](/bimg/d/dbe209c030ba1f09b549c5ed932d30dd61d3e6c3.webp)
![arxiv：2410.11845v1 [CS.DC] 29年9月29日PDF文件第2页](/bimg/1/1202e2a591d1752e1b7bdc3ecb0171672c4a5b23.webp)
![arxiv：2410.11845v1 [CS.DC] 29年9月29日PDF文件第3页](/bimg/0/03ce08634d4e3f097c9edbe3e6469036d1e32107.webp)
![arxiv：2410.11845v1 [CS.DC] 29年9月29日PDF文件第4页](/bimg/0/0206b815de78ce14eed5972576f03c932c05bc56.webp)
![arxiv：2410.11845v1 [CS.DC] 29年9月29日PDF文件第5页](/bimg/d/d96c5ef70a749846ac8423c60e2f0c59ec883978.webp)
相关文件推荐
![arxiv：2402.00128v2 [CS.CV] 29年2月29日，2024年2月](/simg/0/0c92b1f474dcdb77ec786b56d2d8026655473f57.webp)
![arxiv：2401.06312v4 [CS.CV] 29 2024年3月29日](/simg/8/8f626a5a2e27417b245caccf424f2faffb5a7963.webp)
![arxiv：2309.08200v4 [CS.SD] 2024年5月29日](/simg/1/1f9d6d13973456874b7f74e80e3ca2051085cfc6.webp)
![arxiv：2409.20537V1 [CS.RO] 2024年9月30日](/simg/c/c9d07b9eebb39943a91510a51e0263b170bd4778.webp)
![arxiv：2308.15030v4 [CS.AI] 2024年5月29日](/simg/6/6a4b9aa61417a2f810fab35ca4568feefe5ea6ab.webp)
![arxiv：2410.18982v1 [CS.AI] 2024年10月8日](/simg/d/df65185f67521a7b5947a120a9bd950e750f757f.webp)
![arxiv：2410.17504v1 [CS.AI] 2024年10月23日](/simg/4/4dac50798af6ed318dfbcdd611e7b1650e58f2fa.webp)
![arxiv：2407.19628v1 [CS.CV] 29 Jul 2024](/simg/b/b34f59529d417e9d599ebdcd426d087e821b8948.webp)
![arxiv：2409.11602v1 [CS.HC] 2024年9月17日](/simg/e/e020d3be20db3c5f56864f692230e6cb2c54124f.webp)
![arxiv：2402.01968v2 [CS.MA] 2025年1月29日](/simg/f/f4565a64df6afeec01265e3d9fd241812f94061a.webp)
![arxiv：2410.02671v2 [CS.CV] 2024年10月14日](/simg/0/0116dc1f8910897ff238346188d2dd3cedd74748.webp)
![arxiv：2405.20488V2 [CS.DC] 2025年3月5日](/simg/c/caa3abca9c2fffd3c1ff1dfe61c325c38a7693fe.webp)
![arxiv：2306.17366v3 [cs.lg] 29年2月29日2024](/simg/2/20d07c6fd21bf292214cbb70d64ba0e024fa795b.webp)
![arxiv：2410.02067v2 [CS.CV] 2024年10月28日](/simg/7/78d25e6808333495cd2a8f8404dca73c7a86c480.webp)
![arxiv：2407.07035v1 [CS.CL] 9月9日2024](/simg/a/aebad89ee86d45212ed97925b70238ee8de68905.webp)
![arxiv：2410.00578V1 [CS.SE] 2024年10月1日](/simg/9/9f1e52cda70cfd898deff765a5f1481089fccf46.webp)
![arxiv：2402.18981v1 [physics.optics] 29年2月29日2024](/simg/8/86ca7b5803c8c8087ab3e3e9264b1cbb1fb5b13e.webp)
![arxiv：2309.11144v1 [CS.CV] 20 9月20日2023](/simg/2/2893354f36931bdbfe077669c32f9777369cc1f3.webp)
![arxiv：2308.05659V2 [CS.CV] 16 9月16日2024](/simg/3/30a46ac880935730bedbb8cdc7f572bd0c181275.webp)
![arxiv：2410.21720v1 [cond-mat.mes-hall] 2024年10月29日](/simg/4/4ad28008e6e85035bed0a1526c456ec603ed18ac.webp)
![arxiv：2410.21682v1 [cond-mat.supr-con] 2024年10月29日](/simg/8/8bdb2b5de6833ca8b78e5775b95f827d36f69b3f.webp)
![arxiv：2402.19353v1 [cond-mat.supr-con] 29年2月29日，2024年2月](/simg/8/809d1a078b886a18665bbf9640ed1022d259d9b6.webp)
![arxiv：2308.10939v3 [cond-mat.supr-con] 29 2024年3月29日](/simg/8/84d97198cd38122cdd0854b8f1092f7f51afdd0e.webp)
![arxiv：2402.19453v1 [cond-mat.mtrl-sci] 29年2月29日，2024年2月](/simg/7/716dc0ccdd9be08de3bc87efaf314de4d02b8709.webp)
![arxiv：2302.13185v2 [cond-mat.supr-con] 29年2月29日，2024年2月](/simg/c/ca11df5a1e69845c8fe5fceb9b2f5c4bbb0e4eef.webp)
![arxiv：2410.12346v2 [cs.cv] 2024年11月21日](/simg/3/3584bb8d1e056af872da30b5740bb0aac534cfdc.webp)
![arxiv：2409.08775v1 [cs.hc] 2024年9月13日](/simg/2/2a6fe4cf1540d2566c1c48d225994924accb27e9.webp)